Ông sinh ngày 2 tháng 6 năm 1957 tại xã Đồng Thịnh, huyện Sông Lô, tỉnh Vĩnh Phúc.

Ông từng là sinh viên khoa Địa lý - Địa chất Khóa 19 của Trường Đại học Tổng hợp Hà Nội, nay là Đại học Quốc gia Hà Nội.

Sau khi tốt nghiệp đại học năm 1974, ông đã được tuyển vào Viện Khoa học hình sự Công an nhân dân Việt Nam để gửi đi đào tạo giám định viên kỹ thuật hình sự tại Bộ Nội vụ Cộng hòa Dân chủ Đức.

Năm 1985, ông được cử đi nghiên cứu sinh tiến sĩ luật học tại Liên Xô, và tốt nghiệp Tiến sĩ tại Học viện Bộ Nội vụ Liên Xô vào năm 1989.

Năm 1996, ông nhận học vị Phó Giáo sư.

Năm 2002, ông trở thành Giáo sư khoa học xã hội trẻ nhất Việt Nam.[2]

Tháng 6 năm 2005, khi đang là Phó chánh Văn phòng Ủy ban Quốc gia phòng chống ma túy của Bộ Công an, ông được điều động về giữ chức Phó giám đốc, Phó bí thư Đảng ủy Học viện Cảnh sát nhân dân.

Năm 2009, ông là Giám đốc Học viện Cảnh sát nhân dân.

Tháng 12 năm 2012, ông là Thiếu tướng, Giáo sư, Tiến sĩ, Giám đốc Học viện Cảnh sát nhân dân.[3]

Tháng 11 năm 2014, Nguyễn Xuân Yêm là Trung tướng, Giám đốc Học viện Cảnh sát nhân dân.[4]Trong hai nhiệm kỳ Trung tướng GS.TS Nguyễn Xuân Yêm làm Giám đốc Học viện Cảnh sát nhân dân, Học viện hai lần được Nhà nước phong tặng danh hiệu Anh hùng lực lượng vũ trang nhân dân năm 2012 và 2018.Ông được Thủ tướng Chính phủ bổ nhiệm làm Ủy viên Hội đồng chức danh Giáo sư Nhà nước nhiệm kỳ 2009-2014 và 2014-2019, đồng thời được cử giữ chức Chủ tịch Hội đồng chức danh Giáo sư ngành Khoa học An ninh của Bộ Công an nhiệm kỳ 2009 - 2014 và 2014 - 2019.Sau khi kết thúc hai nhiệm kỳ làm Giám đốc Học viện Cảnh sát nhân dân, Bộ Công an, tháng 11 năm 2019 Ông được VNU mời làm Giám đốc Trung tâm nghiên cứu Khoa học quản lý và Quản trị An ninh phi truyền thống trực thuộc HSB. Đây là Trung tâm nghiên cứu Khoa học quản lý và Quản trị An ninh phi truyền thống đầu tiên ở Việt Nam, góp phần xây dựng và phát triển Đại học quốc gia Hà Nội (VNU), Khoa Quản trị và Kinh doanh (HSB), xây dựng và phát triển Khoa học quản lý và Quản trị An ninh phi truyền thống ở Việt Nam.